Công viên Ueno xây trên khu đất từng thuộc về Kan'ei-ji, được thành lập năm 1625 trong "Quỷ Môn", hướng xấu phía đông bắc của Lâu đài Edo.[3] Hầu hết các tòa nhà trong đền đã bị phá hủy trong Trận Ueno vào năm 1868 trong Chiến tranh Boshin, khi các lực lượng của Mạc phủ Tokugawa bị đánh bại bởi quân đội muốn khôi phục quyền lực thiên hoàng. Vào tháng 12 năm đó, đồi Ueno trở thành tài sản của thành phố Tokyo, ngoài các tòa nhà chùa còn sót lại bao gồm ngôi chùa năm tầng xây năm 1639, Quan Âm Kiyomizu dō (hoặc Shimizudō) xây năm 1631, và cổng chính cùng tuổi xây dựng (tất cả được chỉ định là Tài sản văn hóa quan trọng).[2][4][5][6]

Nhiều người đề xuất sử dụng địa điểm này làm trường y hoặc bệnh viện, nhưng bác sĩ Hà Lan Bauduin[7] đã thuyết phục biến khu vực này thành một công viên. Vào tháng 1 năm 1873, Dajō-kan đã đưa ra một thông báo về việc thành lập công viên, lưu ý rằng "ở các quận thuộc Tokyo, Osaka và Kyoto, có những địa điểm lịch sử, cảnh đẹp, và giải trí và thư giãn nơi mọi người có thể đến thăm và hãy tận hưởng, ví dụ Sensō-ji và Kan'ei-ji... "[8][9] Thời điểm này diễn ra sau việc thành lập Yellowstone, vườn quốc gia đầu tiên của thế giới.[10]

Cuối năm đó, Công viên Ueno được thành lập, cùng với các Shiba, Asakusa, Asukayama, và Fukugawa.[7][11] Ban đầu nó thuộc sự quản lý của Cục Bảo tàng của Bộ Nội vụ, sau đó là Bộ Nông nghiệp và Thương mại, trước khi chuyển sang Bộ Hoàng gia. Năm 1924, để vinh danh cuộc hôn nhân của Hirohito, Công viên Ueno đã được Hoàng đế Taishou tặng cho thành phố, nhận được tên chính thức tồn tại cho đến ngày nay của Ueno Onshi Kōen (上野恩賜公園), được thắp sáng. "Công viên quà tặng hoàng gia Ueno".[8]